Hiyō tham gia mặt trận Thái Bình Dương trong Thế Chiến II, khởi đầu cuộc chiến với lực lượng không quân bao gồm 12 máy bay tiêm kích Mitsubishi A6M (Zero), 18 máy bay ném bom bổ nhào Aichi D3A và 18 máy bay ném ngư lôi Nakajima B5N. Vào tháng 11 năm 1942 nó hai lần bị hư hỏng do các cuộc không kích vào Truk; và vào tháng 4 năm 1943, một lần nữa nó bị hư hại nhẹ cũng do không kích tại Truk.

Vào ngày 10 tháng 6 năm 1943, nó trúng phải hai đến bốn quả ngư lôi phóng từ tàu ngầm USS Trigger. Nó được tàu khu trục Isuku kéo về cảng Yokosuka để được sửa chữa. Sau khi hoàn tất việc sửa chữa, nó đảm trách việc vận chuyển máy bay đến Singapore, Saipan và Truk vào tháng 12 năm 1943.

Trong trận chiến biển Philippine, Hiyō bị tấn công vào ngày 21 tháng 6 năm 1944 bởi bốn chiếc Grumman TBF Avenger cất cánh từ tàu sân bay hạng nhẹ USS Belleau Wood. Nó bị đánh trúng hai quả ngư lôi và chết đứng giữa biển trong khi các đám cháy lan rộng. Sau hai giờ, các vụ nổ xảy ra khiến nó chìm tại tọa độ 15°30′B 133°50′Đ / 15,5°B 133,833°Đ / 15.500; 133.833.